迷失的目的
❦
我第一次被要求祈祷，是在幼儿园或一年级；当时别人给了我一段希伯来祷文的音译。我问这些词是什么意思。人们告诉我：只要我用希伯来语祈祷，就不必知道这些词是什么意思；它照样会起作用。
那就是我与犹太教决裂的开始。
当你读到这里时，某个年轻男孩或女孩正坐在大学的书桌前，认真学习一些他们根本没打算在未来使用的材料，也丝毫不想为了它本身而理解它。他们想要一份高薪工作，而高薪工作需要一张纸；那张纸需要之前的硕士学位；硕士学位需要本科学位；授予本科学位的大学要求你为了毕业去上一门「十二世纪编织图案」课程。于是他们勤勉学习，打算在期末考试结束的那一刻就把一切忘光，却仍然认真地啃下去，因为他们想要那张纸。
也许你意识到这全都是疯狂，但我敢打赌你还是照做了。你别无选择，对吧？湾区最近有一项研究显示：K-5 年级的教师中，有 80％的人报告说每周用于科学的时间少于 1 小时，16％的人说他们完全不教科学。为什么？据我所知，近因是 No Child Left Behind Act（不让一个孩子掉队法案）和类似立法。几乎所有课堂时间如今都花在准备州级或联邦层面强制要求的测试上。我似乎还记得（尽管我找不到来源），在某所学校里，仅仅是参加强制测试就占用了 40％ 的课堂时间。
旧苏联官僚体系以更关心表象而非现实而闻名。有一家鞋厂通过生产大量小鞋子超额完成配额。另一家鞋厂把裁剪了但尚未组装的皮革报告为「鞋」。上级官僚也不愿意认真追查，因为他们同样想报告配额超额完成。这对那些冻得脚都要掉的同志们帮助可真大。
如今有多个来源提出：医学领域已发表的研究结论中，有真正的多数尽管「在统计上显著，p < 0.05」，却是不真实的。但只要 p < 0.05 仍是发表门槛，为什么有人要对自己提出更高标准——那需要更大样本、更大的研究经费，还会降低发表概率？每个人都知道：科学的全部目的就是发表大量论文，就像大学的全部目的就是印出某些羊皮纸一样；学校的全部目的就是通过那些保证年度预算的强制测试。你没法制定游戏规则；而如果你试图按不同规则玩，你只会输。
（不过不知为何，物理学期刊要求的门槛是 p < 0.0001。好像他们能想到除了发表物理论文之外、他们存在的另一种目的似的。）
超市里有巧克力；你可以开车去超市；开车要求你在车里；这意味着要打开车门；这需要钥匙。如果你发现超市里没有巧克力，你不会因为车门仍然「需要被打开」就站在那儿不停开关车门。我很少看到人们把自己制定的计划搞丢。
但当激励必须穿过大型组织——更糟的是，穿过许多不同组织与利益集团，其中一些还是政府机构——事情就完全不同了。于是你会看到一些行为：如果它们出自单一心智，那简直就是字面意义上的精神错乱。有人每打开一次车门就拿一次钱，因为这件事可量化；而此人并不关心司机是否会因为抵达超市而拿到钱，更不用说买家是否真的买到了巧克力，或吃的人到底是开心还是挨饿。
从贝叶斯的视角看，子目标是条件概率函数的副现象。没有效用，就没有期望效用。认为工具性价值能以某种数学意义上的方式自发生命、把终极价值甩在尘土里，这是多么可笑？按决策理论的理性标准来看，这一点也不理性。
但想想 No Child Left Behind Act。政客想让自己看起来在为教育困难做点什么；而政客必须让选民在「今年」看到他们很忙，而不是在 15 年后孩子们找工作时才看到。政客不是教育的消费者。官僚必须展示进展，这意味着他们只关心那些今年就能被测量出来的进展；而最终对科学一无所知的人不是他们。负责委托教材的出版社、以及购买教材的委员会，也不会坐在教室里无聊到发疯。
知识的真正消费者是孩子——他们付不了钱、投不了票、坐不上委员会。他们的父母关心他们，却不会亲自坐在课堂里；父母只能根据诸如「对教育强硬」之类的表象来追责政客。政客忙着连任，没空自己研读全部数据；他们不得不依赖于官僚看起来很忙、以及「委托研究」之类的表象——这些做法也许完全帮不到任何孩子，但确实能让政客看起来很有爱心。官僚不指望自己会用教材，所以他们不在乎教材读起来有多难受，只要教材采购流程在表面上看起来体面即可。教材出版商没有动机去做烂教材，但他们知道教材采购委员会会按「覆盖了多少不同主题」来比较教材；而且四年级采购委员会与三年级采购委员会并不协调，所以他们会把尽可能多的主题塞进一本教材。老师在一年结束前连四分之一都讲不完，第二年的老师又会从头开始。老师也许会抱怨，但他们不是决策者；归根结底，他们自己的未来也并不押在这上面，这会在很大程度上限制他们愿意投入多少无偿的利他努力……
从这个角度看，真是令人惊讶——考虑所有丢失的信息与丢失的激励——原本的目的「获得知识」居然还残留了一点点。尽管许多教育系统似乎正处于崩塌过程中，滑向一种并不比「什么都没有」好多少的状态。
想看这个问题被真正解决吗？让政客去上学。
单一人类心智可以追踪「效用的概率期望」如何穿过十几个中间事件的条件概率一路流动——包括非局部依赖：例如开车门的期望效用取决于超市里是否有巧克力。但组织只能奖励今天可测量的东西、今天能写进法律合同的东西，这就意味着它们会测量中间事件，而不是测量遥远后果。这些中间指标反过来就是渗漏的概括——而且通常渗漏得很厉害。官僚是不值得信任的精灵，因为他们并不共享许愿者的价值。
Miyamoto Musashi 说过：1
当你把剑握在手中时，最首要的事情是：无论用什么手段，你的意图都是斩杀敌人。每当你格挡、击打、腾跃、劈砍或触碰敌人的刀，你都必须在同一个动作中斩杀敌人。达到这一点至关重要。如果你只想着击打、腾跃、劈砍或触碰敌人，你就无法真正斩杀他。最重要的是，你必须想着把你的动作贯彻到斩杀上。你必须彻底研究这一点。
（我真希望我生活在一个时代：我只要告诉读者「你们必须彻底研究这个」，而不会显得是在侮辱人。）
为什么任何个体会在一场剑斗中迷失自己的目的？如果是别人教他们战斗，如果他们并非从自身内部生成整套技艺，他们也许不理解为什么此刻要格挡、彼刻要腾跃；他们也许意识不到规则何时会有例外，看不见那些惯常方法无法斩断真相的时刻。
认识论理性的技艺，其要害在于理解每一条规则如何在同一个动作中贯穿到真相。与之对应，实践理性的要害——决策理论相对于概率理论——在于始终看见每一个期望效用如何贯穿到效用。你必须彻底研究这一点。
C. J. Cherryh 说过：2
你的剑没有剑刃。它只有你的意图。当意图偏离时，你便没有武器。
我见过很多人在向一个想象中的 AI 的精灵许愿时迷失方向：他们一个接一个地做出看起来对他们很好的愿望；有时带着许多补丁，有时甚至连那点谨慎的装样子都没有。而他们并不会跳到元层级。他们没有本能地回看目的——这种本能让我在 5 岁时开始走上无神论的道路。他们不会像我那样反射性地问：「我为什么认为这个愿望是个好主意？精灵会同样判断吗？」他们看不见：判断的源头悬浮在判断之后，作为其生成器。他们丢了球；他们知道球弹了一下，但他们没有本能地回头去看球是从哪里弹起来的——生成其判断的标准。
同样地，人们也不会自动注意到：所谓自私的人会给出支持自私的利他论证，或所谓利他的人会给出支持利他的自私论证。
当一切都发生在自己脑子里、并且没有精灵、官僚体系或哲学介入时，人们能很好地追踪「开车去超市」这种目标。但麻烦在于：真实文明的复杂程度远不止如此。几十个组织、几十年时间，横亘在课堂里受苦的孩子与刚刚毕业却不太胜任工作的大学新鲜人之间。（但如果毕业生擅长表现得很忙，面试官或经理会注意到吗？）在行动与后果之间每多一环链接，意图就多一次偏离的机会；每多一环链接，信息就会丢失一次，激励就会丢失一次。而这件事困扰大多数人的程度远不如困扰我的程度；否则，为什么我的同学都愿意在不懂其义的情况下照念祷文？他们没有同样的本能去回看生成器。
人们能学会盯紧球吗？能学会不让意图偏离吗？能学会在每一次腾跃、劈砍或触碰之前，都知道自己将在同一个动作中完成的更高目标吗？在其他条件相同的情况下，人们确实经常想把工作做好。会存在理性的公司吗？甚至理性的文明吗？那只是遥远的梦想，但这正是我在所有这些关于文章中谈到的意图流动（也即 expected utility，也即 instrumental value）如何不丢失目的（也即 utility，也即 terminal value）时一直想表达的。人们能学会感受父目标与子目标的流动吗？能在显式层面也在隐式层面知道期望效用与效用之间的区分吗？
你关心你的文明所面临的威胁吗？对复杂文明而言，最糟糕的元威胁是它自身的复杂性，因为这种复杂会导致许多目的的丢失。
回首过往，我看到：最重要的是，我的人生被一种异常强烈的、对「目的迷失」的厌恶所驱动。我希望它能被转化为一种可学习的技能。